Sous Castle Hill, le rocher est un labyrinthe de grottes et de sentiers qui ont été utilisés à diverses fins depuis la préhistoire. Pendant la Seconde Guerre mondiale, certains ont été immunisés comme abri anti-aérien et hôpital d'urgence.
Désormais connu sous le nom d'Hôpital du Bunker Nuclear Rock Museum (SziklakórházAtombunker Múzeum), ce site était, au moment de la guerre froide, plus sûr contre la contamination nucléaire.
Cet ancien hôpital et bunker d'excavation mérite d'être exploré et abrite une variété d'expositions sur le type d'efforts de sauvetage observés ici pendant le siège de Budapest de la Seconde Guerre mondiale.